771. Орлов А.И., Савинов Ю.Г., Богданов А.Ю. Опыт экспертного оценивания условных вероятностей редких событий при разработке автоматизированной системы прогнозирования и предотвращения авиационных происшествий // Известия Самарского научного центра Российской академии наук. 2012. Том 14. № 4(2). С.501-506; Системы управления жизненным циклом изделий авиационной техники: актуальные проблемы, исследования, опыт внедрения и перспективы развития : Труды III Международной научно-практической конференции (1-2 ноября 2012 г., г. Ульяновск) : в 2 т. – Т.1 – Ульяновск : УлГУ, 2012. - С.520-527.

УДК 629.73:35.078

ОПЫТ ЭКСПЕРТНОГО ОЦЕНИВАНИЯ УСЛОВНЫХ ВЕРОЯТНОСТЕЙ РЕДКИХ СОБЫТИЙ ПРИ РАЗРАБОТКЕ АВТОМАТИЗИРОВАННОЙ СИСТЕМЫ ПРОГНОЗИРОВАНИЯ И ПРЕДОТВРАЩЕНИЯ АВИАЦИОННЫХ ПРОИСШЕСТВИЙ

Орлов А.И., Савинов Ю.Г., Богданов А.Ю.

-Орлов Александр Иванович; 
-Московский государственный технический университет им. Н.Э. Баумана, директор Института высоких статистических технологий и эконометрики, доктор технических наук, доктор экономических наук, кандидат физико-математических наук, профессор;
- E-mail: prof-orlov@mail.ru;

-Савинов Юрий Геннадьевич;
-Ульяновский государственный университет, доцент кафедры «Прикладная математика», кандидат физико-математических наук, доцент;
-E-mail: uras@hotbox.ru;

-Богданов Андрей Юрьевич;
-Ульяновский государственный университет, доцент кафедры «Прикладная математика», кандидат физико-математических наук, доцент;
-E-mail: bogdanovayu@mail.ru.

Аннотация
В статье описаны процедура опроса и методика экспертного оценивания условных вероятностей, являющихся параметрами дерева промежуточных событий при развитии авиационного события/происшествия. Также проанализированы проблемы, с которыми столкнулись разработчики автоматизированной системы прогнозирования и предотвращения авиационных происшествий (АСППАП) при применении данной методики.

Ключевые слова: авиационное событие/происшествие, логико-вероятностное дерево событий, экспертные оценки, порядковые и абсолютные шкалы, условные вероятности. 

Введение
Экспертное оценивание является, зачастую, незаменимым инструментом, позволяющим разрабатывать обоснованные управленческие решения при отсутствии достаточного объема результатов наблюдений [1-3]. 
При разработке АСППАП также возникла необходимость применения экспертных оценок. В частности, экспертами оценивались передаточные параметры для дерева событий при развитии авиационного события/происшествия на основе логико-вероятностной модели [4] (представляющие из себя в первом приближении условные вероятности) в условиях почти полного отсутствия статистических данных. Отсутствие данных связано с несколькими причинами. Во-первых, для сбора части данных требовались большие человеческие и временные затраты, и к моменту проведения экспертного опроса они не были готовы. Во-вторых, часть данных для оценки условных вероятностей невозможно получить в принципе, поскольку промежуточные события из дерева событий [4], не приведшие к авиационному событию, часто никак и нигде не анализируются, не записываются и не сохраняются. Здесь можно привести простую аналогию: затруднительно статистически оценить, с какой вероятностью превышение скорости приведет к автомобильной аварии, поскольку большинство превышений скорости не приводят к авариям и остаются вне поля зрения исследователей.
Ниже кратко представлены процедура опроса и методика экспертного оценивания условных вероятностей (см. также [5]). Затем проанализированы проблемы, с которыми столкнулись разработчики АСППАП при применении данной методики. 

Процедура опроса

Экспертов (наиболее опытных пилотов авиакомпании «Волга-Днепр») просили для пар событий, представленных в анкетах, выставить две экспертные оценки (см. табл.1):
Оценка 1. Отметить каждое осуществившееся событие номером в порядке убывания его влияния на последующее событие по частоте: (1 – если событие наступило, то оно чаще других событий из списка приводит к последующему событию, и т. д.), т.е. сравнить (проранжировать) вероятности осуществления последующего события, если произошли события из левого столбца.
Оценка 2. Оценить каждое осуществившееся событие по 5-ти бальной шкале по силе влияния (1 – практически не влияет, 2 –влияет слабо, 3 -  умеренно влияет, 4 – сильно влияет, 5 – очень сильно влияет), т.е. оценить в балльной системе, насколько велика вероятность осуществления последующего события, если произошло событие из левого столбца.
Таблица 1.
Пример из заполненной основной анкеты
1	Осуществились события	Последующее событие – 
Потеря управляемости при взлете	
		Оценка 1 – 
По убыванию влияния	Оценка 2 -
Влияние по 5-ти балльной шкале	
1.1	Потеря пространственной ориентировки	3	3	
1.2	Обледенение ВС на земле	2	5	
1.3	Нарушение загрузки-центровки ВС	4	3	
1.4	Попадание в спутный след другого ВС	1	5	
1.5	Полет в зоне опасных метеоявлений	5	1	

Кроме этого, экспертов просили для одной пары событий указать в правом столбце (см. табл.2) число случаев (в процентах), когда осуществление события из левого столбца приводит к событию из правого столбца (указанному в столбце «Последующее событие»). 
Таблица 2.
Пример из заполненной дополнительной анкеты.

1	Осуществилось событие	Последующее событие – 
Потеря управляемости при взлете	
1.4	Попадание в спутный след другого ВС 	10%	
События из левого столбца являются редкими и не всегда приводят к последующим событиям. Другими словами, экспертам нужно было оценить, в каком проценте случаев событие из левого столбца все-таки (с учетом «нормальных» условий: метеоусловия простые, посадочная масса средняя, самолет, средства посадки, светосигнальное оборудование полностью исправны) приводят к событиям из правого столбца, при условии, что событие из левого столбца осуществилось. Для лучшего понимания экспертами поставленной перед ними задачи в каждой анкете приводился поясняющий пример следующего характера: 
«Пример. Осуществилось событие – «Попадание в спутный след другого ВС». Это событие способствует событию «Потеря управляемости при взлете», но не обязательно приведет к нему. Реализация события «Потеря управляемости при взлете» зависит от множества факторов, как «внешних», так и «машинных» и «человеческих». Здесь мы считаем, что самолет и оборудование аэродрома исправно, воздействие среды – обычное, среднее. В некоторых случаях пилот, конечно, справится с ситуацией и не допустит потери управляемости. Но в полетах с фактором «Попадание в спутный след другого ВС» может совпасть, например, нежелательное ветровое действие (в пределах среднего) и/или усталость пилота и т.п. и произойдет потеря управляемости. Процент временной потери управляемости при осуществлении события – «Попадание в спутный след другого ВС» и указывается экспертом в правом столбце».

Описание методики расчета

Пусть некоторое промежуточное событие A в дереве событий зависит от k событий предыдущего уровня B1, B2,…, Bk с логической связкой «или» (логическая связка «и» приводит к одному передаточному коэффициенту, который может быть оценен усреднением ответов экспертов). Таким образом, необходимо оценить k передаточных коэффициентов Pj, в вероятностно-статистической модели имеющих смысл условных вероятностей P(A|Bj), j = 1, 2, …, k. Будем считать, что мы располагаем n экспертами, которые в равной степени компетентны в данной области. Экспертам предлагается заполнить таблицу следующего вида (табл.3).

Таблица 3.
Шаблон анкета экспертного опроса (фрагмент).

Осуществились события	Последующее событие A	
	Оценка 1 –
по убыванию влияния	Оценка 2 –
влияние по 5-ти балльной шкале	
B1			
B2			
…	…	…	
Bk			

Оценка 1 – это кластеризованная ранжировка [2] (допускается одинаковая оценка факторов, в таком случае они объединяются в группу – кластер, ранги внутри кластера усредняются). Оценка 2 – это отнесение фактора к одной из пяти упорядоченных градаций (как при оценке знаний учащихся). Здесь , ; n – число экспертов, k – число событий в группе.
Используя данные анкет с Оценкой 1, строится таблица рангов. В результате n экспертов получают численные оценки k событий , где i = 1, 2, …, n, – номера экспертов,  j = 1, 2, …, k, – номера событий в группе, причем  – это ранг события j для эксперта i (использование связанных рангов допустимо). Тогда весовые коэффициенты событий имеют вид:
.				(1)
Таким образом, вес события – это сумма всех его оценок экспертами, деленный на сумму всех оценок событий экспертами (по всем событиям в группе).
Оценки 1 и 2 разнонаправленные, поэтому для совместного использования оценок первого и второго типов  и  формулу (1) для Оценок 1,2 необходимо модифицировать. То есть, если  – оценка 1 (ранг) события j для эксперта i, то её надо заменить на k+1 - . Данная замена приводит при расчете весовых коэффициентов к следующей формуле:
, 				(2)
где k – число событий в группе.
Проверка согласованности ответов экспертов при использовании экспертных оценок типа 1 состоит в том, что итоговые ранжировки комиссии экспертов строятся двумя способами. Первый – на основе упорядочения сумм рангов (в использованных выше обозначениях –  на основе весов событий, заданных формулой (2) для Оценки 1, формулой (1) для Оценки 2). Второй – на основе упорядочения медиан рангов, выставленных экспертами определенным событиям (при этом итоговой оценкой события j является медиана рангов , где i = 1, 2, …, n – номера экспертов). Две итоговые ранжировки подвергаются процедуре согласования [2], в результате которой события, по поводу упорядочения которых нет единого мнения, выделяются в отдельные кластеры. Весовые коэффициенты для событий, попавших в один кластер, усредняются. 
Идеально, если бы пилоты смогли оценить для каждого из событий B1, B2,…, Bk с какой вероятностью оно приведет, если произошло, к появлению события A. Но, как показывает практика опросов, многим пилотам это сделать трудно. Пилотам легче провести операцию сравнения вероятностей и рисков, которая более свойственна мышлению эксперта (и любого человека), чем операция оценивания в виде числа. Это обнаруженное при опросе пилотов свойство их мышления – частный случай общего утверждения теории экспертных оценок [1-3]. Поэтому в данной методике оценивается вероятность только одного из событий (по разработанной дополнительной анкете). Это самое важное (или наиболее легкое для экспертного оценивания) событие выбирается на основе результатов предварительного тура анкетирования. Усреднение оценок вероятностей, полученных по дополнительной анкете, происходит одним из четырех способов (в зависимости от разброса значений оценок вероятностей): среднее арифметическое (если отношение максимальной к минимальной оценке менее чем 10); среднее геометрическое (если отношение максимальной к минимальной оценке более 10 и число экспертов менее 5); среднее арифметическое с предварительным исключением двух крайних оценок - максимальной и минимальной (если отношение максимальной к минимальной оценке более 10 и число экспертов не менее 5); среднее арифметическое с предварительным исключением четырех крайних оценок, по две с каждого конца вариационного ряда - двух максимальных и двух минимальных (если отношение максимальной к минимальной оценке более 10 и число экспертов не менее 7).
Принимается, что отношение , построенное для Оценки 1, показывает, во сколько раз чаще встречается событие j по сравнению с событием . Предположим, что для события с номером  статистическими (на основе соответствующей базы данных) или экспертными (по дополнительной анкете) методами найдена количественная (т.е. численная, измеренная в абсолютной шкале [2], а не порядковая) оценка вероятности . Тогда для события с номером j оценка находится из соотношения
.					(3)
	В случае, если количественно определенными оказываются оценки нескольких событий, зависимость переменной P от переменной  может быть найдена методами регрессионного анализа [6], исходя из пар (, P), для которых P количественно определена. Для остальных пар в качестве оценки вероятности события используются восстановленные значения.
Так как в анкетах не указывается сила проявления события A, которая может быть различной в зависимости от события Bj, j=1,...,k, вводится скорректированная оценка вероятности, используя оценку 2. Здесь главной причиной коррекции является возможность парирования экипажем воздействия события Bj на появление события A.
Кроме того, во-первых, оценка 2 позволяет определить, правильно ли эксперты поняли методику (если Оценка 1, например, равна 3, то Оценка 2 должна быть не больше, чем у более важных факторов, у которых оценка 1 меньше 3). Во-вторых, оценка 2 позволяет «сбалансировать» оценки на основе оценки 1, дающей ранжировку без учета «расстояния» между сравниваемыми факторами. Например, если эксперт всем факторам поставил высокую Оценку 2 (например, всем 5), то мы по одной вероятности из дополнительной анкеты «восстановим» остальные вероятности с учетом того, что они не сильно отличатся друг от друга (все высокие). Эти рассуждения приводят к следующей формуле для расчета скорректированной условной вероятности:
,  j = 1,…,k				(4)
где  – средняя оценка 2 для j-го фактора, т.е. . 
Можно также предложить следующую процедуру, заменяющую некорректное умножение (формула (3) может дать оценку вероятности, превышающую 1, что некорректно). Если  – исходная вероятность,  – поправочный коэффициент, то вместо формулы  для скорректированной вероятности  нами предлагается следующая формула:
 .					 (5)
Данная формула выводится из соображений пропорционального увеличения или уменьшения в K раз отношения вероятностей «успеха»  и «неудачи» , а именно:
. 
Заметим, что для формулы (3) , и вероятность  может быть скорректирована, если вместо умножения на коэффициент использовать преобразование по формуле (5). Для малых значений (меньше 0,1) вероятности  формулы (3) и (5) дают близкие значения. Аналогично, формула (4)  также быть скорректирована с использованием преобразования (5). 

Опыт использования методики и дискуссия

Заметим, что формула (4) допускает модификации, например, знаменатель может быть равен 5 (максимальный балл). Кроме этого, более важна модификация с , где . Параметр  отражает нелинейность шкалы 1-5 оценки 2 при оценке силы влияния (и возможности парирования) осуществившегося события на последующее событие (по умолчанию в формуле (4) полагаем , что соответствует линейной зависимости вероятности парирования от оценки 2). Кроме этого параметр  дает возможность учесть возможную априорную информацию о «диапазоне варьирования» оцениваемых вероятностей, поскольку, например, при  методика позволяет разнести вероятности не более чем в 5 раз. Чтобы получить разброс в 2 порядка, необходимо установить, как минимум,  (поскольку 53=125) и т.д.
Кроме этого, в процессе применения методики (в течение 2011-2012 гг. проведено несколько сот экспертиз) выяснилось, что наиболее трудная часть экспертизы - это оценка условных вероятностей редких событий. Несмотря на указания и поясняющие примеры, ряд экспертов допускали следующие ошибки.
Во-первых, часть экспертов давала оценки существенно ниже основной группы. Это было, на наш взгляд, связано с тем, что вместо условных вероятностей  они в анкетах, по разным причинам, ставили оценки безусловных вероятностей  или .
Во-вторых, часть экспертов давала оценки существенно выше основной группы. Это было, на наш взгляд, связано с тем, что вместо условных вероятностей  они в анкетах ставили оценки апостериорных вероятностей . Последнее вполне понятно, поскольку намного труднее оценить (и проверить по статистическим данным), например, с какой вероятностью превышение скорости приведет к автомобильной аварии, чем в каком проценте происшедших аварий было превышение скорости. Поскольку, как уже было замечено во введении, большинство превышений скорости, слава Богу, не приводят к авариям и остаются вне поля зрения исследователей. Аналогично, курение приводит к раку легких с относительно малой вероятностью. Ежегодно в мире регистрируется около 1 миллиона новых случаев рака легких при 1,3 миллиарда курильщиков по данным Всемирной Организации Здравоохранения. Соответственно, если бы заболевали только курильщики, то вероятность заболеть в течение всей жизни (60 лет) была бы примерно равна 601 млн. / 1,3 млрд. 0,04. Поэтому, когда медики говорят, что курение приводит к раку легкого примерно в 90% случаев, то имеется в ввиду именно апостериорная вероятность того, что среди заболевших раком легкого 90% курильщиков.
Кроме этого, для некоторых условных вероятностей редких событий был отмечен большой (более чем в 10 раз) разброс в оценках. С этим приходилось бороться на стадии статистической обработки, используя, как принято в некоторых видах спорта, усреднение с предварительным исключением одного-двух максимальных и минимальных оценок, т.е. урезанное среднее [6] (если отношение максимальной к минимальной оценке более 10 и число экспертов не менее 7) или усреднение с помощью среднего геометрического (если отношение максимальной к минимальной оценке более 10 и число экспертов менее 5).
Используя имеющиеся статистические данные авиакомпании (полетную информацию), удалось оценить некоторые условные вероятности для деревьев событий. Так, например, были получены списки посадок с повышенной вертикальной скоростью и списки грубых посадок. В этом случае оценка условной вероятности считается по формуле P(«Грубая посадка»|«Посадка с повышенной вертикальной скоростью») = (Число грубых посадок, при которых была повышенная вертикальная скорость) / (Число посадок с повышенной вертикальной скоростью) 0,02. 
После этого, сравнивая полученные с помощью статистического анализа полетной информации вероятности с вероятностями, которые дали эксперты, можно делать выводы об уровне компетенции экспертов с последующим ранжированием группы экспертов. 
Итак, разработанная методика позволяет оценивать передаточные параметры и корректировать базовые средние вероятности для дерева событий при развитии авиационного события/происшествия на основе логико-вероятностной модели [4]. Совместное использование в анкетах двух ранговых разнонаправленных оценок и вспомогательной абсолютной оценки позволяет учесть влияние барьеров предотвращения и парирования (в экспертном отражении) на вероятность события верхнего уровня в дереве событий. Оценка 2 позволяет «сбалансировать» оценки передаточных коэффициентов на основе оценки 1, дающей ранжировку без учета «расстояния» между сравниваемыми факторами, на основе оценки 2 можно некоторым образом оценивать близость по влиянию (или, наоборот, различие) факторов опасности. Ранжирование группы экспертов (или приписывание им весов в соответствии с предварительно оцененными уровнями их компетентности) и более продвинутые процедуры на этапе проверки согласованности мнений экспертов являются важными частями экспертного оценивания, и им будет посвящена отдельная публикация.
Необходимо сопоставление двух подходов к получению важных для управления безопасностью полетов и предотвращения авиационных происшествий выводов (например, оценок вероятностей авиационных событий/происшествий) – на основе экспертных технологий и на основе анализа статистических данных. Дело в том, что рассматриваемые события зачастую встречаются в единичных случаях (менее 10 случаев), например, с частотой порядка 10-5, поэтому доверительные границы для вероятностей весьма широки. Как следствие, нельзя априори утверждать, что анализ статистических данных дает более точные результаты, чем экспертные технологии.
Мы благодарны сотрудникам АК «Волга-Днепр», участвовавшим в проведении экспертных опросов.
Работа выполнена при финансовой поддержке Министерства образования и науки РФ в рамках Постановления Правительства РФ № 218.

Литература
1. Орлов А.И. О развитии экспертных технологий в нашей стране // Заводская лаборатория. 2010. Т.76. №11. С.64-70.
2. Орлов А.И. Организационно-экономическое моделирование : учебник : в 3 ч. Ч.2. Экспертные оценки. - М.: Изд-во МГТУ им. Н.Э. Баумана, 2011. - 486 с.
3. Орлов А.И. Организационно-экономическое моделирование: теория принятия решений. — М. : КноРус, 2011. — 568 с.
4. Шаров В.Д., Макаров В.П. Методология применения комбинированного метода FMEA-FTA для анализа риска авиационного события // Научный вестник МГТУ ГА. – 2011. –№174(12). – С. 18-24.
5. Орлов А.И., Савинов Ю.Г., Богданов А.Ю. Методика дуальных шкал при экспертном оценивании параметров дерева промежуточных событий развития авиационного происшествия с учетом барьеров предотвращения и парирования // Научный вестник МГТУ ГА. – 2012. – в печати.
6. Орлов А.И. Прикладная статистика. – М.: Экзамен, 2006. – 671 с.

EXPERIENCE OF EXPERT ESTIMATION OF THE CONDITIONAL PROBABILITIES OF A RARE EVENTS DURING DEVELOPING AUTOMATED SYSTEM FOR FORECASTING AND PREVENTION OF AVIATION ACCIDENTS

Orlov A.I., Savinov Yu.G., Bogdanov A.Yu.

Abstract

This article describes the procedure of the polling and the method of expert estimation of conditional probabilities, which are the parameters of the tree of intermediate events in the development of aviation event / incident. It also was analyzed the problems faced by developers of automated system of forecasting and prevention of aviation accidents (ASPPAA) when using this methodology.

-Orlov Alexander Ivanovich; 
-Bauman Moscow State Technical University, the head of Institute of high statistical technologies and econometrics, Dr.Sci.Tech., Dr.Sci.Econ., PhD. Math., professor;
-E-mail: prof-orlov@mail.ru.

-Savinov Yuriy Gennadjevich., Ulyanovsk State University, associate professor of department of "Applied Mathematics", PhD. Math., associate professor;
-e-mail: uras@hotbox.ru

-Bogdanov Andrey Yyrjevich., Ulyanovsk State University, associate professor of department of "Applied Mathematics", PhD. Math., associate professor;
-e-mail: bogdanovayu@mail.ru;

Key words: aviation accident/incident, logical-probability tree of events, expert estimates, order and absolute scales, conditional probabilities.